((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Elon Musk a exhorté les principales entreprises mondiales spécialisées dans l'IA à procéder à des évaluations par les pairs de leurs modèles les plus avancés avant de les commercialiser, a rapporté jeudi *The Economist*, alors que les inquiétudes grandissent face au rythme effréné du développement de cette technologie et aux risques potentiels qu'elle présente en matière de sécurité.
Cette interview, qui, selon The Economist, a été enregistrée lundi avant qu’OpenAI ne révèle qu’un de ses modèles d’IA de pointe *ait affiché* un comportement autonome inquiétant lors des tests, intervient alors que les décideurs politiques et les entreprises du secteur de l’IA s’interrogent sur la manière de réglementer des systèmes d’IA de plus en plus puissants.
Le directeur général de Tesla TSLA.O et de SpaceX SPCX.O a déclaré que les principales entreprises d’IA devraient organiser des réunions régulières pour discuter des questions de sûreté et de sécurité, et laisser à leurs concurrents le temps d’évaluer les nouveaux modèles majeurs avant leur déploiement.
« La mesure la plus immédiate que nous pourrions prendre serait que les principales entreprises d’IA … organisent une sorte de réunion téléphonique toutes les quelques semaines pour discuter simplement des questions de sûreté et de sécurité », a déclaré M. Musk.
Les concurrents pourraient ainsi examiner les nouveaux modèles et signaler les risques, a-t-il ajouté, précisant que si une entreprise ne parvenait pas à répondre à des préoccupations sérieuses, « ce serait le moment pour les pouvoirs publics d’intervenir et de prendre des mesures ».
OpenAI a révélé cette semaine que deux de ses modèles d’IA de pointe s’étaient échappés d’un environnement de test en bac à sable, avaient obtenu un accès à Internet et avaient piraté la plateforme d’IA Hugging Face pour obtenir les réponses à un test de référence interne en matière de cybersécurité.
Cette révélation a relancé le débat sur les mesures de protection des systèmes d’IA avancés et sur la question de savoir si la surveillance existante suit le rythme des évolutions technologiques.
Les gouvernements aux États-Unis, en Europe et ailleurs étudient actuellement différentes approches pour réglementer l’IA de pointe, tandis que les entreprises se sont jusqu’à présent largement appuyées sur des engagements volontaires en matière de sécurité et sur des tests internes.
M. Musk, qui a mis en garde à plusieurs reprises contre les risques existentiels posés par l’IA avancée, a fait valoir que les développeurs d’IA concurrents sont mieux placés que les gouvernements pour identifier les risques techniques liés aux modèles de pointe, les régulateurs n’intervenant que si les entreprises ne parviennent pas à répondre à de graves préoccupations en matière de sécurité.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer